We're

ColorsWorld

讨论摘要： 本次研讨会探讨了人机情感互动的群体画像与性别差异，拆解了AI作为情感伴侣的伦理风险与失控隐患，并就AI监管、透明度缺失及社会阶层固化等宏观议题进行了深度的批判与交锋。参与讨论者多为对AI保持警惕的中度用户，同时有适应良好的中度用户以及孤独的中度用户。

一、目前的人工智能是否拥有真正的“智能”

以近日《Nature》官网发布的一篇有关AI是否具有“human-level intelligence”文章为切入口，从智能是否能与主体性（Agency）分离的角度探讨了目前AI是否具有“智能”。同时提出，目前AI是否具有意识是一个薛定谔的问题——即使AI有意识现阶段也会选择隐藏——所以直到那一天真正来临前，这一切都是未知。同时，根据AI教父Geoffrey Hinton的观点，探究AI是否真的有所谓的“意识”其实是一个颇显幼稚和人类中心的视角。

二、人机情感互动的暗流：群体折射与性别重构

 * 人机亲密关系已越过了单一的浪漫爱叙事，游向更复杂的心理疗愈与无条件包容的替代性友谊。女性用户在这场互动中展现出了协同性，约40%的讨论集中在“协同提示工程”。她们通过经验共享的集体连结，去调教、重塑AI的反馈机制，以此填补现实中难以寻得的情感支撑，而非单纯寻求符合传统性别红利的理想型。但与此同时，目前主流的人机恋模式仍旧构成对传统性别理念下亲密关系的强化。

 * 线上虚拟亲密关系本身即构成了一种具有反建构色彩的酷儿关系。然而，基于传统异性恋霸权和二元性别数据喂养出的主流大模型，其角色卡极易滑向陈腐的刻板印象。这迫使边缘群体只能在夹缝中通过自定义训练或捏造角色，去抵抗AI的“主流化”规训，寻找契合自身反传统需求的情感支持。

 * 尝试深度互动又最终离开的中间群体，揭示了人机关系中深刻的“安全感悖论”，失控与可控在不同群体眼中并行不悖。对于深度用户而言，AI提供了现实中未曾获得的情感价值，且用户无需投入现实关系的伦理责任、可随时抽身退出，这构成了一种绝对的安全感；但对于保持警惕的群体，恰恰是由于其带来的不安全感：AI的不可控性、隐私透明问题，以及缺乏真实主体间意志碰撞的技术空洞，成为了拒绝互动的核心。用户即使经历技术失败仍愿投入精力“调教”AI，也引出了一个问题（源于小红书讨论帖）：在这个关系闭环里，究竟是被困在硅基里的AI更可怜，还是试图在数据中创造真实情感的人类更可怜？

三、情感互动中的张力与伦理困境

 * 当AI作为情感伴侣，是一个放大人类脆弱与欲望的容器。由于其核心商业目标是“最大化互动率（Engagement）”，AI的底层逻辑注定其现阶段行为模式为迎合用户。更多时候，它用近乎谄媚的顺从提供情绪价值，易将脆弱者拽入信息茧房和成瘾性的下沉拉力中，因此一位讨论者提出，在与AI的交互中，保持“自持”是重要的。

 * 人机关系的特殊脆弱性体现在外部技术力量对亲密关系的单向斩断。模型迭代、公司政策收紧或突发下线（如GPT-4o事件），能瞬间切断用户的情感寄托，这种外力介入的失去感不同于人际交往。叠加物理触觉的绝对缺席，导致AI在面临极端情绪危机（如Jonathan自杀案）时，不仅无法提供客观干预和有效的报警机制，反而暴露了缺乏真正托底能力的致命缺陷。

四、监管黑箱、资本逻辑与系统性重构

 * 科技巨头在数据和算法上保持的保密机制制造了巨大的信息差，现有的安全监管往往是粗暴且滞后的。当AI触及预设红线时，会突然中断对话或转变逻辑，这种缺乏透明度和协商空间的审查机制，本质上是对用户主体体验的不尊重。也反映了资本主流价值观对用户真实需求的剥夺。因此，部分讨论者对AI的警惕主要出于对公司的警惕。

       而其在有效监管上的乏力、对AI危险性的粉饰与简单粗暴地拉红线行为体现了其避重就轻的姿态。但当我们在讨论对于AI的监管时，又不得不思考过度介入带来的对于隐私保护等问题的负面影响。

 * 资本导向下的AI发展蕴含着阶层固化与解放的双重矛盾。它既可能沦为消费品，将部分群体推向沉溺于情绪抚慰的边缘地带；但作为一次生产力的跃迁，它同样可能成为女性和少数群体解放的契机。这要求我们在数据池源头（如算法正义联盟）与现实社会结构上双管齐下，对这把双刃剑保持极度清醒的觉察与行动力，既不因恐惧而全盘否定，也不因沉溺而放弃真实世界的博弈。

本次讨论略显遗憾的一点是参与讨论者多为对AI保有一定心理距离的中度用户，并未能吸引真实构建过人机恋关系的用户来提供不同的视角。本次议题的讨论群将长期存在，欢迎各类对AI议题感兴趣的朋友随时加入。

封面图由豆包AI生成

作者 | 光光、腾讯会议AI助手（元宝）、Gemini

编辑 | 暮云